Self-Improving Large Language Models via Progressive Experience Evolution
渐进式经验演化实现LLM自我提升
🧭 LLM自我演化 · 经验蒸馏与RL混合 ★ 深度解读
Renmin University of China · Tencent Inc.
统一显式经验演化与隐式RL优化的两阶段后训练框架，通过全局经验池萃取可迁移知识并内部化，提升数学推理与数据效率
📌 工作参考价值（4 点）
- 全局经验池与演化：在推荐或Agent中，可维护一个经验池，从成功/失败交互轨迹中抽象可复用策略（如用户偏好模式、失败原因），并定期合并、去重、演化，减少冗余和冲突经验。
- 特权引导自蒸馏(OPSD)：推荐模型在线更新时，可用历史优质决策作为特权信息构造 teacher，对当前策略进行 on-policy 蒸馏，既保留行为多样性又注入有效先验。
- 两阶段优化提升数据效率：先用经验蒸馏初始化模型，降低全部采样错误的比例，再应用 GRPO 等 RL 算法，可大幅减少无效探索，适合在线广告/推荐中低反馈场景。
- 经验效用验证机制：用探针集评估每条经验的边际收益，可过滤低质量经验；在推荐系统策略迭代中，可类似评估新增规则或策略是否带来正向增量。